В десктопном приложении должет быть встроен веб-сервер или сокет-сервер и слушать порт на localhost, например localhost:10001. Тогда с браузера ты сможешь делать ajax запросы на localhost:10001 или подключиться с помощью websocket через этот порт.
Другая мысль это использовать протоколы и как-то эмитиррвать нажатие ссыдки вида <a href=skype:test... и если у программы есть свой протокол то она запустится